یک نمونه آنالوگ از یک موج سینوسی را نشان داده است . پنجره زمان نشان داده شده نشان دهنده 5ms میباشد . هر شکل یک نمونه ی آنالوگ از موج سینوسی 1000 Hz ، با پنجره زمانی 5 میلی ثانیه ای را نشان می دهد. نمونه های دیجیتالی از این موج سینوسی را نشان سمعک داده است ، نمونه ها به ترتیب 10000 ، 5000 ، 667 ، 2000 ، 2000 و 2000 اند .

گرد کردن دامنه که قبلا ذکر شد بطور رسمی به عنوان quantization شناخته شده است . زمانی که دامنه یک سیگنال (آنالوگ) مداوم در دنیای دیجیتال گرد می شود ، اغلب یک تفاوت بین ارزش آنالوگ ارجینال و ارزش دیجیتال وجود دارد . این تفاوت  error quantization نامیده می شود . اندازه ی این error quantization تحت تاثیر تعدادی از فاکتورهاست . یکی از این فاکتورها محدوده ی پویایی درADC است . محدوده ی پویایی بزرگترین ولتاژی است که میتواند با دقت به عدد تبدیل شود (عددی شود) . دومین فاکتور در تعیین محدوده ی پویایی تعداد بیت ها درADC  است . اجازه دهید فرض کنیم که ±5-V محدوده پویایی و12 بیت در ADC داریم . با استفاده از جدول 11-2 میتوانیم ببینیم که 12 بیت ADC ، 4/096 (e.g 212)  ارزش را ممکن است که تولید کند . زیرا رنج ولتاژ کل 10 V (از  -5 تا +5 ولت ) است و 12-bit ADC ، 4/096 ارزش را کدگذاری می کند . نتیجه ی این سیستم عبارت است از : (تعداد بیت ها = x)

/2x = 10 V / 212= 10V / 4/096 =0.00245 V =2/45 mV         رنج ولتاژ = نتیجه ADC

در این مثال ، دقت بین دو نقطه متوالی 2/45 است.error quantization  به زمانی که ما میخواهیم دامنه هایی که کمتراز دقت ADC هستند را تفکیک کنیم مربوط می شود . فرض کنید که ADC به بزرگترین ارزشی که دارد ، گرد شود ، کوچکترین دامنه غیر صفر این ADC که میتواند کدگذاری شود (که حداقل بیت قابل توجه نامیده می شود[LSB]  ) باید منفی تر از -2/45 mV و مثبت از +2/45 mV باشد.

شما احتمالا تعجب می کنید که چگونه ممکن است که این یک راه حل مفید باشد ، زیرا همه فعالیت الکتروانسفالوگرام (EEG) در یک رنج میکروولتی است و بنابراین همه ولتاژهای EEG باید به صفر گرد شوند. (DC در حال حاضر یک واقعه ی معمول در واشنگتن است . )

برای مثال ، اجازه دهید که فرض کنیم که  ولتاژ EEG خارج پوست سر برای فردی µv  ±100(±0.1mV) است و دامنه پتانسیل برانگیخته شما 10میکروولت است . شما چقدر نزدیک به این مقدار در سیستم دیجیتال پیشنهادی براورد کرده اید ؟

بدون تقویت (همانطور که قبلا گفته شد) چون 10µv از رنج ±2/45mV  quantization کمتر است ، شما دامنه را حدود 5mV براورد خواهید کرد . error quantization در محاسبه دامنه قله EEG در این مورد 10µv (µ v0-10 µv) است و یک خطای تخمینی جدی را ایجاد می کند . شما چگونه این خطای غیرقابل قبول را کاهش می دهید ؟

ابتدا ما باید از یک ADC با تعداد بیت های بیشتر استفاده کنیم . ADC شانزده بیتی ، با یک هزینه ی معقول در حال حاضر موجود است .